HN
Hacker News • 1일 전
IMP 8
‘진리’를 향할 수 없는 LLM: 타르스키 대각선 공격
최근 AI 안전성 연구에서 LLM의 임베딩 공간 내에 '진리' 방향이 존재하여 모델의 거짓말을 탐지할 수 있을 것이라는 기대가 컸습니다. 그러나 이 글은 '이 문장은 거짓이다'와 같은 자기참조적 역설을 활용한 대각선 공격을 통해 어떤 탐지기도 완벽하게 진리를 특정할 수 없음을 증명합니다. 이는 AI 정렬 및 해석 가능성 연구에서 기하학적·선형적 방식의 한계를 명확히 보여주는 중요한 이론적 통찰입니다.
인공지능 안전성 해석가능성 대형언어모델